Thời Pháp thuộc (1884-1945)

Dưới thời Pháp thuộc (trước cách mạng tháng 8/1945) chưa có huyện Sông Mã, lúc đó ba vùng đất của Sông Mã thuộc ba châu khác nhau. Vùng Sốp Cộp là một tổng thuộc Mường Thanh (Điện Biên), vùng Mường Lầm thuộc Mường Muổi (Thuận Châu), vùng Mường Hung thuộc Mường Mụa (Mai Sơn).

Sau cách mạng tháng 8 năm 1945

Ngày 7 tháng 3 năm 1953, Khu ủy Tây Bắc quyết định tách ba vùng: Sốp Cộp (thuộc Điện Biên), Mường Lầm (thuộc Thuận Châu), Mường Hung (thuộc Mai Sơn) gộp lại thành lập châu mới là châu Sông Mã, thuộc tỉnh Sơn La. Từ 1953 đến giữa năm 1962 gọi là châu Sông Mã; từ giữa năm 1962 đến nay gọi là huyện Sông Mã.

Khi thành lập, huyện Sông Mã có 24 xã: Chiềng Ban, Chiềng Cang, Chiềng Đen, Chiềng En, Chiềng Khoong, Chiềng Khương, Chiềng Phung, Chiềng Sơ, Dồm Cang, Đứa Mòn, Huổi Một, Mường Cai, Mường Hung, Mường Lầm, Mường Lạn, Mường Lèo, Mường Và, Nà Nghịu, Nậm Mằn, Pắc Ma, Pú Bẩu, Púng Bánh, Sốp Cộp, Yên Hưng.

Tháng 3 năm 1953, châu Sông Mã chuyển trung tâm từ bản Lấu Ngày (xã Mường Lầm) về khu cánh kiến (nay thuộc xã Nà Nghịu) và đến đầu năm 1976 châu Sông Mã chuyển trung tâm từ khu cánh kiến về địa điểm mới (Thị trấn hiện nay).

Ngày 26 tháng 10 năm 1961, Hội đồng Chính phủ ban hành Quyết định số 173-CP[3]. Theo đó, giải thể xã Mường Cai, địa bàn sáp nhập vào các xã Mường Và, Chiềng Khoong và Mường Lạn.

Từ năm 1976 đến nay

Ngày 13 tháng 4 năm 1977, thành lập thị trấn Sông Mã, thị trấn huyện lỵ huyện Sông Mã trên cơ sở tách một phần diện tích và dân số của xã Nà Nghịu.[4]

Ngày 25 tháng 7 năm 1978, đổi tên xã Chiềng Ban thành xã Nậm Lạnh, đổi tên xã Chiềng Đen thành xã Nậm Ty, đổi tên xã Pắc Ma thành xã Bó Sinh.[5]

Ngày 16 tháng 1 năm 1979, tái lập xã Mường Cai trên cơ sở tách một số bản thuộc các xã Sốp Cộp, Chiềng Khoong, Mường Và, Mường Lạn.[6]

Ngày 13 tháng 3 năm 1979, chuyển xã Mường Sai thuộc huyện Mai Sơn về huyện Sông Mã quản lý.[7]

Ngày 11 tháng 1 năm 1986, chia xã Púng Bánh thành hai xã Púng Bánh và Sam Kha.[8]

Cuối năm 2002, huyện Sông Mã có 27 đơn vị hành chính gồm thị trấn Sông Mã và 26 xã: Bó Sinh, Chiềng Cang, Chiềng En, Chiềng Khoong, Chiềng Khương, Chiềng Phung, Chiềng Sơ, Dồm Cang, Đứa Mòn, Huổi Một, Mường Cai, Mường Hung, Mường Lầm, Mường Lạn, Mường Lèo, Mường Sai, Mường Và, Nà Nghịu, Nậm Lạnh, Nậm Mằn, Nậm Ty, Pú Bẩu, Púng Bánh, Sam Kha, Sốp Cộp, Yên Hưng.

Ngày 2 tháng 12 năm 2003, tách 8 xã: Sốp Cộp, Mường Lạn, Dồm Cang, Sam Kha, Mường Và, Mường Lèo, Púng Bánh, Nậm Lạnh để thành lập huyện Sốp Cộp.[9]

Huyện Sông Mã còn lại 1 thị trấn và 18 xã như hiện nay.